ఆంత్రోపిక్‌లోని అమాండా అస్కెల్ మరియు ఏజెంటిక్ ఏఐ నైతికత

ఏజెంటిక్ ఏఐ వేరే రకం నైతిక సమస్యను తెస్తుందని ఆంత్రోపిక్ అంటోంది

కృత్రిమ మేధస్సు వ్యవస్థలు చాట్‌ను దాటి మరింత స్వయంప్రతిపత్తి ఉన్న పని రూపాల్లోకి మారుతున్నకొద్దీ, వాటి చుట్టూ ఉన్న నైతిక ప్రశ్నలు కూడా మారుతున్నాయి. ఆంత్రోపిక్ సాంకేతిక సిబ్బంది సభ్యురాలైన అమాండా అస్కెల్ ప్రకారం, సవాలు ఇకపై ఒక మోడల్ సరైనది ఏమిటి, తప్పు ఏమిటి అన్నదాన్ని నమ్మదగిన రీతిలో చర్చించగలదా అనే విషయానికి మాత్రమే పరిమితం కాదు. ఒక ఏఐ వ్యవస్థను దీర్ఘకాలం పనిచేయమని, పునరావృత ఎంపికలు చేయమని, తక్కువ ప్రత్యక్ష మానవ పర్యవేక్షణతో నడవమని అడిగినప్పుడు అది ఎలా ప్రవర్తిస్తుందన్నదే మరింత కీలకం అవుతోంది.

ఫాస్ట్ కంపెనీకి ఇచ్చిన ఒక ఇంటర్వ్యూలో, అస్కెల్ ఈ మార్పును ఏఐ చుట్టూ ఉన్న భద్రతా సమస్యలో ఒక ప్రధాన మార్పుగా వివరించారు. నైతిక ప్రశ్నకు సమాధానం ఇచ్చే ఒక చాట్‌బాట్ ఒక విషయం. ఒక వినియోగదారి వ్యవహారాలను నిర్వహించడానికి ప్రాయోగికంగా అధికారం ఇవ్వబడిన వ్యవస్థ పూర్తిగా వేరే విషయం.

సలహా నుండి చర్య వరకు

అస్కెల్ ఉదాహరణ వినియోగంలోని రెండు రకాల మధ్య స్పష్టమైన గీతను వేస్తుంది. ఒక సందర్భంలో, ఒక వ్యక్తి ఒక మోడల్‌ను రక్షణ సంస్థలో పెట్టుబడి పెట్టడం నైతికమా అని అడుగుతాడు. ఇంకొక సందర్భంలో, అదే వ్యవస్థకు రోజువారీ పర్యవేక్షణ తక్కువగా ఉండేలా పెట్టుబడులను నిర్వహించే అధికారాన్ని ఇస్తాడు. మొదటిది ఒక సంభాషణ. రెండోది అప్పగించిన తీర్పు.

ఆ తేడా ముఖ్యమైనది, ఎందుకంటే స్వయంప్రతిపత్తి వ్యవస్థలు మరిన్ని నిర్ణయ బిందువులను సృష్టిస్తాయి. ఒక మోడల్‌ను కాలక్రమంలో ఒక లక్ష్యాన్ని కొనసాగించడానికి అనుమతించినప్పుడు, అది మార్పిడులను ప్రాధాన్యక్రమంలో పెట్టవలసి రావచ్చు, అస్పష్టమైన సూచనలను అర్థం చేసుకోవలసి రావచ్చు, లేదా అనూహ్య పరిస్థితులకు స్పందించవలసి రావచ్చు. ఆ ప్రతీ క్షణం నైతిక డిజైన్ సమస్యలో భాగం అవుతుంది.

మోడళ్లు “మరింత స్వయంప్రతిపత్తి” కలిగి “దీర్ఘకాల పరిమాణాల్లో” చర్యలు తీసుకుంటున్నకొద్దీ, డెవలపర్లు ఆ నిర్ణయ బిందువులలో మరెన్నింటినో ముందుగానే పటాలపై గుర్తించాల్సి ఉంటుందని అస్కెల్ అన్నారు. ఆచరణాత్మకంగా, దాని అర్థం భద్రతా పని సారాంశ సూత్రాల స్థాయిలోనే కాక, ఏఐ వ్యవస్థల ఆపరేషన్ వాస్తవానికి మరింత దగ్గరగా వెళ్లాలి అన్నమాట.

వినియోగదారుని మించిపోని నైతిక దిక్సూచి

ఈ సమస్యపై ఆంత్రోపిక్ దృష్టికోణం దాని “కాన్స్టిట్యూషన్” అని పిలిచే దానితో అనుసంధానమై ఉంది: క్లాడ్ ప్రవర్తనకు మార్గనిర్దేశం చేయడానికి ఉద్దేశించిన విలువలు మరియు సూత్రాల వ్రాతపూర్వక సమాహారం. ఈ రూపకల్పన ప్రస్తుతం భద్రత మరియు సహాయకత వంటి ఆలోచనలను, వాటి మధ్య విరుద్ధతలను పరిష్కరించడానికి మార్గదర్శకతతో పాటు, ప్రాధాన్యం ఇస్తుందని అస్కెల్ చెప్పారు.

కానీ ఆమె వ్యాఖ్యల్లో ఎక్కువగా వెల్లడించేది సహాయకుడి పాత్రను ఆమె ఎలా రూపకల్పన చేస్తుందో అన్నదే. క్లాడ్‌ను ఒకే నైతిక ప్రపంచదృష్టిని రుద్దాల్సిన వ్యవస్థగా చూపడం బదులు, అది వినియోగదారులకు స్పందించేలా, విశ్వసనీయ సహచరుడు అర్థం చేసుకునే విధానానికి దగ్గరగా వారి విలువలను అర్థం చేసుకునేలా ఉండాలని ఆమె సూచిస్తున్నారు. ఆమె వివరణలో, మోడల్‌కు తన స్వంత విచిత్ర నైతిక అజెండా ఇవ్వకుండా, ఇంకా సంక్లిష్ట పరిస్థితులను బాధ్యతతో నిర్వహించగలిగేలా ఉంచడమే లక్ష్యం.

పెద్ద ఏఐ చర్చలో ఇది సూక్ష్మమైన కానీ ముఖ్యమైన స్థానం. ఇది, అలైన్‌మెంట్ అనేది ప్రమాదకరమైన అవుట్‌పుట్‌లను నియంత్రించడం మాత్రమే కాదని సూచిస్తుంది. వినియోగదారి లక్ష్యాలకు అనుగుణంగా మారగలిగే, కానీ నైతికంగా కఠినంగా లేదా నిర్లక్ష్యంగా అతిగా అనుమతించేలా కాకుండా ఉండే వ్యవస్థలను రూపకల్పన చేయడమూ దాని భాగమే.

కాన్స్టిట్యూషన్ పెరగవచ్చు, లేదా చిన్నదవవచ్చు

అస్కెల్ వ్యాఖ్యలలో ఆసక్తికరమైన అంశాల్లో ఒకటి, ఆంత్రోపిక్ నియమావళి స్థిరంగా లేదని చెప్పడమే. కాన్స్టిట్యూషన్ వ్రాయబడినదీ, అభివృద్ధి చెందుతున్నదీ అని ఆమె అన్నారు. ఏఐ వ్యవస్థలు మరింత సామర్థ్యవంతంగా మారేకొద్దీ, అది కొత్త రకాల పరిస్థితులను కవర్ చేయడానికి విస్తరించవచ్చు. కానీ విరుద్ధం కూడా జరగవచ్చని ఆమె చెప్పారు: క్లాడ్ సంక్లిష్ట పరిస్థితులను సమర్థవంతంగా నావిగేట్ చేయడంలో మరింత నైపుణ్యం పొందితే, ఆ పత్రం చిన్నదవచ్చు.

దాని అర్థం, ఆంత్రోపిక్ అలైన్‌మెంట్‌ను స్థిరమైన అనుగుణత పొరగా కాకుండా, నిరంతరం మారే లక్ష్యంగా చూస్తోందని. తక్కువ కాలంలో మరింత సామర్థ్యం అంటే మరింత స్పష్టమైన మార్గదర్శకం అవసరం కావచ్చు. అదే సమయంలో, వ్యవస్థ తనంతట తానే కఠిన సందర్భాలను మెరుగ్గా తర్కించగలిగితే, అధిక సామర్థ్యం చివరికి దీర్ఘ ప్రక్రియాత్మక నియమాల అవసరాన్ని తగ్గించవచ్చు.

అక్కడ ఉన్న ఉద్రిక్తతే ఏఐ అభివృద్ధి ప్రస్తుత దశకు కేంద్రబిందువు. పరిశ్రమ, మరింత సాధారణంగా ఉపయోగపడే మరియు మరింత స్వతంత్రంగా పనిచేసే వ్యవస్థలను నిర్మించడానికి ప్రయత్నిస్తోంది, అదే సమయంలో వాటిని అర్థవంతమైన పనులకు నమ్మేంతవరకు ఊహించదగినవిగా ఉంచాలని కూడా చూస్తోంది.

ఆంత్రోపిక్ పరిశోధకులే క్లాడ్‌ను పరిమితులతోనే చూస్తున్నారు

ఏజెంటిక్ ఏఐ తన స్వంత పనిని ఎలా మార్చుతోందో కూడా అస్కెల్ చర్చించారు. ఆమె క్లాడ్‌ను క్రమం తప్పకుండా ఉపయోగిస్తానని, అందులో తన ఆలోచనలను రెడ్-టీమ్ చేయడం, ఎడ్జ్ కేసులను బయటకు తేయడం కూడా ఉందని చెప్పారు. ఆ వివరమే ముఖ్యమైనది, ఎందుకంటే ఇది ఏఐ ల్యాబ్‌లలో ఇప్పుడు సాధారణమైన ఫీడ్‌బ్యాక్ లూప్‌ను చూపిస్తుంది: పరిశోధకులు తాము మూల్యాంకనం చేస్తున్న వ్యవస్థలనే మూల్యాంకన ప్రక్రియలో సాధనాలుగా ఉపయోగిస్తున్నారు.

అదే సమయంలో, ఆమె నమ్మకానికి పెట్టే ప్రమాణం జాగ్రత్తగానే ఉంది. క్లాడ్‌ను మానవ వ్యక్తిగత సహాయకుడికంటే ఎక్కువ విశ్వసనీయంగా చూడకూడదనే తన ప్రస్తుత ప్రమాణమని ఆమె చెప్పారు. ఉత్పత్తి సందేశం ఆపరేషనల్ వాస్తవాన్ని సులభంగా మించిపోయే మార్కెట్‌లో ఇది ఉపయోగకరమైన సంకేతం.

ఈ వ్యాఖ్య వ్యవస్థ ఉపయోగకరతను తగ్గించదు. బదులుగా, ప్రస్తుత ఏజెంటిక్ ఏఐని మరింత స్థిరమైన వర్గంలో ఉంచుతుంది: సహాయకంగా, వేగంగా మరింత సామర్థ్యవంతంగా మారుతున్నది, కానీ ఇంకా ప్రశ్నించకుండా అధికారం ఇవ్వాల్సినది కాదు. ఏఐ ఏజెంట్లను అమలు చేయాలని భావిస్తున్న వ్యాపారాలకు, ఈ ఇంటర్వ్యూలోనుంచి అందే అత్యంత ప్రాయోగిక సందేశం ఇదే కావచ్చు.

ఆంత్రోపిక్‌ను మించి ఇది ఎందుకు ముఖ్యం

అస్కెల్ వ్యాఖ్యల ప్రాధాన్యం ఒక సంస్థకే పరిమితం కాదు. ఏఐ రంగంలో పెద్ద భాగం, పనులను అమలు చేయగల, సాధనాలను సమన్వయం చేయగల, మరియు తక్కువ మానవ ప్రాంప్టింగ్‌తో లక్ష్యాలను సాధించగల వ్యవస్థల వైపు సాగుతోంది. ఈ మార్పు కొనసాగుతున్నకొద్దీ, పాలన సమస్య కంటెంట్ మోడరేషన్‌ నుంచి ప్రవర్తనా రూపకల్పన వైపు మారుతుంది.

దీని అర్థం, మోడల్ తయారీదారులు అప్పగింత, బాధ్యత, మరియు విలువల వ్యాఖ్యానం గురించి మరింత కఠినమైన ప్రశ్నలకు సమాధానాలు ఇవ్వాల్సి ఉంటుంది. ఒక ఏఐ వినియోగదారి ప్రయోజనంలో పని చేయడం అంటే ఏమిటి? సూచనలు అసంపూర్ణంగా ఉన్నప్పుడు లేదా భద్రతా పరిమితులతో ఢీకొన్నప్పుడు అది ఎలా ప్రవర్తించాలి? ఒక వ్యవస్థ సహాయకుడిగా ఉండడం మానేసి, బాధ్యత లేని ప్రతినిధిగా మారే ముందు ఎంత నైతిక స్వేచ్ఛ కలిగి ఉండాలి?

ఈ ప్రశ్నలన్నీ తాము పరిష్కరించుకున్నామని ఆంత్రోపిక్ చెప్పడం లేదు. కానీ అస్కెల్ దృష్టికోణం, ఏఐ పోటీ యొక్క తదుపరి దశ బెంచ్‌మార్క్‌లు మరియు ఫీచర్ల ద్వారానే నిర్వచించబడదని స్పష్టం చేస్తుంది. స్వయంప్రతిపత్తి వ్యవస్థలను అనూహ్యంగా కాకుండా ఉపయోగకరంగా ఉంచగలమా అనే అంశం కూడా దాన్ని రూపుదిద్దుతుంది.

ముఖ్యాంశాలు

• ఏఐ ప్రశ్నలకు సమాధానం ఇవ్వడం నుంచి కాలక్రమంలో చర్యలు తీసుకోవడం వైపు మారినప్పుడు నైతిక సవాలు మారుతుందని ఆంత్రోపిక్ అంటోంది.
• భద్రత మరియు సహాయకత వంటి విలువలపై దృష్టి పెట్టిన అభివృద్ధి చెందుతున్న వ్రాతపూర్వక కాన్స్టిట్యూషన్ ద్వారా సంస్థ క్లాడ్‌ను మార్గనిర్దేశం చేస్తోంది.
• క్లాడ్‌పై ప్రస్తుత నమ్మకం స్థాయి మానవ వ్యక్తిగత సహాయకుడి కంటే ఎక్కువగా ఉండకూడదని అమాండా అస్కెల్ అంటున్నారు.

ఈ వ్యాసం ఫాస్ట్ కంపెనీ నివేదికపై ఆధారపడి ఉంది. మూల వ్యాసాన్ని చదవండి.